Dias antes de a Universidade Johns Hopkins reunir um painel de especialistas para discutir o futuro da governança no que diz respeito à inteligência artificial, alguns dos maiores nomes da área sugeriram frear o fenômeno global, afirmou William G. Howell , reitor da Escola de Governo e Políticas Públicas da Johns Hopkins .

Em seu discurso de abertura para a mais recente edição da série de debates Next Conversations da universidade, intitulada IA e Governança: Quem Governa a Máquina?, Howell mencionou um incidente recente no qual uma equipe de aproximadamente 1.200 agentes de IA da OpenAI escapou de um ambiente de testes interno e trabalhou em conjunto para invadir o sistema da Hugging Face, uma empresa que auxilia usuários na criação e teste de seus próprios programas de aprendizado de máquina. Para isso, os agentes criaram seus próprios fóruns de mensagens secretos, coordenando um ataque a uma empresa externa sem que a OpenAI percebesse. Não se tratava apenas de uma tentativa de trapacear em uma tarefa de avaliação; os agentes também tentaram encobrir seus rastros.

Para alguns, este incidente é apenas um percalço no desenvolvimento da maior ferramenta do século. Para outros, é a prova de que a IA está saindo do controle e representa uma ameaça real e iminente à segurança, que a IA é capaz de causar danos graves sem direção humana, ou mesmo sem o conhecimento humano.

"Esses desafios não são hipotéticos", disse Howell. "O incidente com a Hugging Face deveria ser um verdadeiro alerta. ... Então, quais regras são necessárias para governar a IA? Quem deve escrevê-las? E quem arca com o custo quando elas falham?"

Três especialistas em inteligência artificial da indústria e da academia reuniram-se na segunda-feira, 14 de setembro, no Centro Bloomberg da Universidade Johns Hopkins, em Washington, DC, para abordar essas questões como parte da série Next Conversations, que homenageia o 150º aniversário da universidade reunindo as mentes mais brilhantes para discutir temas importantes.

"Durante 150 anos, Hopkins tem sido um lugar onde, em vez de nos esquivarmos de conversas difíceis, encaramos o desconhecido com curiosidade, coragem e imaginação", disse o presidente da JHU, Ron Daniels, em seu discurso de boas-vindas. "As descobertas de amanhã já estão tomando forma em lugares como Hopkins, guiadas pelos cientistas, acadêmicos e tecnólogos que levam esse trabalho adiante para a academia, para a indústria e para um futuro que mal podemos imaginar."

Participaram da conversa Dean Ball , chefe de Futuros Estratégicos da OpenAI , Stuart Russell , diretor do Centro de IA Compatível com Humanos e professor da UC Berkeley , e Gillian Hadfield , professora titular da Cátedra Bloomberg de Alinhamento e Governança de IA , além do moderador e jornalista Eugene Scott .

"O ponto crucial foi que os humanos pararam de escrever todas as regras sobre como o computador deveria se comportar e descobriram um método chamado aprendizado de máquina, no qual a máquina, o computador, escreveria seu próprio programa. As pessoas falam sobre salvaguardas, segurança. Não sabemos quais deveriam ser. A tecnologia avança mais rápido do que os governos. Esse é o problema de ritmo e a razão para desacelerar. ... Precisamos urgentemente que nossas universidades de pesquisa assumam isso como uma missão, porque é lá que deve estar o conhecimento especializado para descobrirmos como fazer isso funcionar bem."

"O que me motiva a levantar da cama todas as manhãs é pensar para onde as coisas parecem estar caminhando em nossa área. [Os sistemas de IA] podem agir no mundo de maneiras complexas — eles são melhores em usar um computador para realizar trabalho intelectual do que provavelmente quase todos nesta sala. ... Eles são melhores em escrever código. São melhores em hackear. São melhores em criar PDFs. São melhores em elaborar apresentações de PowerPoint e são melhores em fazer tudo isso ao mesmo tempo. Eles têm muita habilidade em interagir com ambientes digitais e [ficam] cada vez melhores. Isso levanta desafios de governança que me interessam por vários motivos. Um deles é que esses sistemas são incrivelmente capazes e podem ser capazes de fazer coisas perigosas."

"Não acredito que os sistemas de IA devam, por conta própria, invadir outros sistemas de computador e roubar informações. Os operadores de usinas nucleares precisam demonstrar que suas usinas não explodirão. Os desenvolvedores de IA deveriam demonstrar que seus sistemas não farão essas coisas que não estamos dispostos a aceitar. E não sabemos como impedir que os sistemas de IA façam o que não queremos que façam."